本例子展示如何使用平台的自定义应用功能,实现一个基于ChatGLM3的聊天机器人应用程序。
1. 打开gcs控制台,在“实例列表”页面点击“创建”按钮。
2. 在创建页面,第一行的计费模式根据自己的需要进行选择,可以选择包年包月,也可以选择按配置(即每个小时进行扣费)。应用可以选择“无预装应用”,如果你还想顺便玩玩文生图,也可以选择Stable Diffusion。点击“立即购买”创建实例。
3. 创建完成后,在实例列表页面,就能看到刚刚创建的实例。待实例状态变成“运行中”时,点击JupyterLab~~~~。
4. 在Jupyter页面,从右侧的目录树中,进入到/data/apps/目录,新建一个chatglm3目录。点击右侧的Terminal,进入命令行页面。
在命令行页面中,可以使用pwd
命令,查看当前所在的目录。
5. 为了确保没有环境问题,我们使用conda创建一个单独的环境,不妨叫做liandan。在命令行页面中,输入如下命令:conda create -n liandan python=3.10.8 -y
等运行完成后,再执行命令conda activate liandan
,以激活liandan这个虚拟环境,激活后,命令行前面会出现(liandan)。
继续输入命令git clone https://github.com/THUDM/ChatGLM3
,用来下载chatglm3的代码。注意这里无需下载模型,模型已经实现在平台提供的公共模型为大家准备好了。如果无法从github下载,可以采用从镜像网站下载,命令如下:git clone https://gitee.com/jdgcs/ChatGLM3.git
7. 进入ChatGLM3目录,安装依赖。
cd ChatGLM3
pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple
在左侧的目录树中,双击打开文件ChatGLM3/basic_demo/web_demo_streamlit.py,修改18行,MODEL_PATH的内容为'/gcs-pub/chatglm3-6b',如下图所示。最后Ctrl+S保存该修改。
继续在命令行中输入命令:streamlit run basic_demo/web_demo_streamlit.py --server.address 0.0.0.0 --server.port 28888
恭喜你,我们的ChatGLM3 Web UI已经成功运行了。回到控制台页面,点击操纵栏-应用-自定义应用,就能看到刚才部署的ChatGLM3页面啦。
~~~~
我们的产品专家为您找到最合适的产品/解决⽅案
1v1线上咨询获取售前专业咨询
专业产品顾问,随时随地沟通